브라질 소프트웨어 엔지니어를 포함한 많은 사용자가 AI 챗봇으로 판타지 소설, 팬픽션, 롤플레이 등 맞춤형 창작 fiction을 즐기고 있다. 워싱턴대 연구진이 50만 건 이상의 ChatGPT 프롬프트를 분석한 결과 3분의 1 이상의 상호작용이 fiction 생성과 관련이 있었으며, 소수의 헤비 유저가 대부분을 차지하지만 전체 사용자의 약 7%가 AI 소설 생성에 참여하는 것으로 추정된다. 이는 출판계의 AI 사용 논란과 달리, 독자들이 AI 창작 fiction을 적극적으로 소비하고 있다는 점을 보여준다.
삼성과 바르샤바 대학 연구진은 실존하지 않는 인물인 '엘레나 바스케즈'와 '마커스 첸' 등 대형 언어 모델(LLM)이 반복적으로 생성하는 이름들이 수백 편의 AI 생성 논문과 문서에 공동 저자로 등장하며 학술 기록을 오염시키고 있다고 밝혔습니다. 이들 유령 논문은 CERN이 운영하는 Zenodo에서 실제 DOI를 발급받아 Google Scholar와 Semantic Scholar 등 학술 검색 플랫폼에 인덱싱되고 있어, 대규모 학술 기록 오염의 인프라가 이미 갖춰져 있다는 지적입니다.
모든 업소가 똑같이 생긴 AI 생성 포스터로 홍보하던 가운데, 일부 업소들이 거친 손글씨 현수막으로 'AI를 쓰지 않겠다'고 선언해 오히려 바이럴이 되고 있습니다. 일부 게시물은 수만 개의 좋아요를 받으며, AI 슬롭(저품질 AI 콘텐츠)에 대한 소비자 피로감이 반증되는 사례입니다.
AI가 생성한 가짜 동물 영상과 사진이 인터넷에서 가장 큰 기쁨과 연민의 원천이던 동물 콘텐츠를 오염시키고 있습니다. 실종 반려동물 사기에 AI 이미지가 악용되는 사례와, 진짜 동물 관련 저널리즘 단체들이 신뢰를 지키기 위해 고군분투하는 상황이 소개됩니다. 가짜 콘텐츠가 더 저렴하게 대량 생산되면서 진짜 콘텐츠를 밀어내고 있어, 콘텐츠 신뢰성 검증과 출처 인증 기술의 중요성이 커지고 있습니다.
저자는 AI로 생성된 것으로 보이는 업무 문서를 읽을 때 집중이 되지 않고 내용이 머리에 들어오지 않는 현상을 겪고 있다고 고백합니다. LinkedIn의 AI 글들에 '사전 학습'된 뇌가 저품질 AI 콘텐츠를 배너 광고처럼 무의식적으로 걸러버리는 'AI 맹목성(AI-blindness)' 현상이라는 분석입니다. 생산성을 높여줄 AI가 오히려 커뮤니케이션을 방해하는 역설을 보여주는 사례로 주목할 만합니다.
최근 미국에서 조부모 세대가 손주의 사진과 이름을 활용해 맞춤형 AI 그림책을 선물하는 사례가 크게 늘어나며 젊은 부모 세대의 거센 반발을 사고 있습니다. 부모들은 개인정보 침해와 표절 우려, 그리고 저퀄리티 AI 콘텐츠(slop) 문제를 지적하지만, AI 맞춤형 도서 플랫폼의 광고에 끌린 일부 친척들의 소비는 계속되는 추세입니다. 전문가들은 아이들이 책을 좋아하는 이유는 단순한 개인화가 아닌 흥미로운 스토리 자체에 있으며, 유아기 독서 육성에 악영향을 미칠 수 있다고 우려합니다.
IT 개발자 커뮤니티인 해커뉴스(Hacker News)에 AI가 작성한 게시물을 식별할 수 있는 표시 기능 추가를 요구하는 글이 올라왔습니다. 작성자는 기존 추천 순위에는 영향을 주지 않는 선에서, AI 텍스트를 기피하는 사용자들이 해당 글을 걸러 읽을 수 있는 선택권을 제공해야 한다고 주장합니다. 이는 대중화된 생성형 AI 시대에 전통적인 커뮤니티 운영 방식이 어떻게 진화해야 하는지에 대한 논쟁을 촉발하고 있습니다.
AI 작문 탐지 기업 Pangram의 연구에 따르면, 사용자가 링크드인과 X에서 보는 장문 콘텐츠의 최대 41%가 AI에 의해 생성된 것으로 나타났습니다. 이는 AI가 생성한 스팸성 콘텐츠가 단순히 외딴 스팸 사이트에 머물지 않고, 사람들이 매일 사용하는 주요 소셜 미디어 플랫폼마저 심각하게 오염시키고 있음을 보여줍니다.
글로벌 프리프린트 서버인 아크라이브(Arxiv)가 AI로 생성된 논문 내용에 대한 엄격한 규제를 발표했습니다. 저자가 거짓 참고문헌이나 AI 메타 명령어 등을 검증하지 않아 명백한 흔적이 적발될 경우 1년간 제출이 금지되며, 이후에는 반드시 동료 평의를 거쳐야만 다시 논문을 올릴 수 있습니다.
임페리얼 칼리지 런던, 스탠퍼드 대학교 등의 공동 연구에 따르면, 2025년 중반 기준 전체 신규 웹사이트의 약 35%가 AI로 생성된 것으로 나타났습니다. 연구진은 AI가 인터넷 담화의 다양성을 줄이는 '의미론적 수축'과 인위적으로 긍정적인 어조를 조장하는 '긍정성 변화'를 유발하고 있다고 분석했습니다. 다만, 개성 상실이나 외부 링크 감소, 팩트 오류 증가 등에 대한 가설은 통계적으로 입증되지 않았습니다.
최근 소셜 미디어에서는 완벽한 외모의 AI가 진행하는 가짜 연애 코칭 팟캐스트 영상이 폭발적인 조회수를 기록하며 큰 인기를 끌고 있습니다. 이 영상들은 대부분 전통적이고 편향된 성 역할을 강조하고 성별 간의 갈등을 조장하는 '소프트 프로파간다' 역할을 하며, 이는 AI 기술이 만들어내는 새로운 형태의 사회적 독성으로 평가받고 있습니다.